Hvis vi bygger kunstig generell intelligens,
så blir det den største hendelsen i livets historie på jorda.
En fremmed intelligens inni et datasystem
som har kontroll over planeten.
Og science fiction-bøker og -filmer har gjort det klart.
KUNSTIG GENERELL INTELLIGENS
MASKINER SOM ER OVERLEGNE MENNESKER
MENNESKELIG INTELLIGENS MOT KUNSTIG INTELLIGENS
NÅTIDEN MOT FRAMTIDEN
2001: EN ROMODYSSÉ (1968)
Hva er problemet?
Jeg tror du vet hva problemet er, like godt som jeg vet.
Hva snakker du om, HAL?
Dette oppdraget er for viktig til at du kan sette det i fare.
Jeg vet ikke hva du snakker om, HAL.
HAL, en superintelligent datamaskin.
Vi kaller det KI i dag.
Rollefiguren min Dave var astronauten
i en av de mest profetiske filmene
om trusselen mot mennesker fra kunstig intelligens.
HAL var science fiction. Men nå er KI overalt rundt oss.
Kunstig intelligens er ikke framtiden. KI er her.
En robot stilte som ordførerkandidat i en japansk by.
Det hvite hus danner en ny gruppe som fokuserer på kunstig intelligens.
Google har kunngjort planer om å investere mer i KI.
IBM sender en robot med kunstig intelligens ut i rommet.
På grunn av min lille rolle
forstår jeg at vi er på en reise
som begynner med smal KI.
Maskiner som utfører bestemte oppgaver bedre enn oss.
Men KI i science fiction er kunstig generell intelligens.
Maskiner som kan gjøre alt bedre enn oss.
Smal KI er som en lært idiot...
ASTROFYSIKER/KI-FORSKER, MIT
...som kan gjøre noe, som å legge sammen tall,
bedre enn mennesker,
men kan ikke gjøre noe som helst annet.
Men KGI, kunstig generell intelligens,
som ikke finnes,
er intelligens som kan gjøre alt like godt som mennesker.
Så hva skjer hvis vi skaper KGI?
Science fiction-forfattere har advart om at det kan være farlig.
Og de er ikke de eneste.
Folk bør være bekymret for det.
KI er en risiko mot menneskets sivilisasjon.
Og jeg tror ikke folk helt forstår det.
Vi må bekymre oss.
Jeg tror ikke det er avgjort at når vi får superintelligens,
vil den alltid ha de samme målene som vi har.
Jeg tror utviklingen av full kunstig intelligens
kan bety slutten for menneskeheten.
Hvis overskriften var:
"Det er produsert en kunstig intelligens...
FILMSKAPER/OPPDAGER
...som er like intelligent som oss",
så ville ikke folk bli overrasket.
For science fiction har vist oss alle mulige utenkelige ting.
TERMINATOR 2: DOMMENS DAG (1991)
Eksperter er uenige om virkningen KI får på framtiden vår
og om Hollywood hjelper oss med å planlegge for den.
Dialogen vår har blitt kapret av Hollywood,
for Terminator er en bedre suksess
enn at KI er godt, nøytralt eller forvirret.
DIREKTØR, ALLEN INSTITUTE FOR ARTIFICIAL INTELLIGENCE
Teknologi slik som KI er et verktøy.
Det er som en avansert blyant.
Så de bildene vi tegner med den, er opp til oss som samfunn.
Vi må ikke gjøre det KI sier. Vi sier hva KI skal gjøre.
Jeg tror Hollywood-filmer bidrar til samtalen.
Noen må tenke framover på konsekvensene blir.
VITENSKAPSJOURNALIST
Men vi kan ikke tenke oss hva framtidens vitenskap blir,
og jeg tror ikke vi har begynt å tenke på alle de mulige framtidene
som springer ut av denne teknologien.
Kunstig intelligens har makt til å endre samfunn.
Stadig flere kritikere viser faren ved å gi kontrollen til maskiner.
Det blir store endringer. En bekymring på lang sikt er
at menneskene blir satt til siden.
Noe som bekymret Stanley Kubrick for 50 år siden.
Det skjer.
Hvordan måler vi hvor mye denne samtalen haster?
Hvis folk så på radaren nå
at et romskip nærmet seg Jorda og var 25 år unna...
DIREKTØR, UNANIMOUS AI
...ville vi mobilisert for romvesenenes ankomst om 25 år.
Det er samme situasjon med kunstig intelligens.
Det kan være 25 år eller 50 år, men en ny intelligens vil komme,
og vi bør være forberedt.
Vel, mine herrer. Møt Tobor, en elektronisk simulakrum av en mann.
Gosj! Du store alpakka!
Det gjenstår mye arbeid, men han er allerede sansende.
I 1956, da begrepet "kunstig intelligens" dukket opp,
var de opprinnelige målene en intelligens på menneskelig nivå.
PROFESSOR, ROBOTTEKNIKK, MIT
Han ser nesten snill ut.
Med tiden viste det seg å være vanskelig.
Jeg tror vi får intelligens på menneskenivå fra maskiner,
men det kan ta noen hundre år. Det vil ta tid.
Folk blir litt for begeistret
om framtidige muligheter.
Og nå, Electro, ber jeg deg gå bakover.
Bakover.
Alle generasjoner har blitt entusiastiske.
De ser 2001, forelsker seg i HAL,
og tenker: "Jeg ordner det på seks uker."
Det skjer ikke, og alle blir opprørt.
Så hva er endret i KI-forskning?
Forskjellen med dagens KI
og grunnen til at KI brått tok et langt steg framover,
er Internett. Det er deres verden.
Informasjonens motorvei og en av gjennomkjørslene,
et nettverk kalt "Internett".
I 1981 var bare 213 datamaskiner koblet til Internett.
I det nye året
er 2,5 millioner datamaskiner på nettverket.
KI trenger mat.
Slik som sauer trenger gress, trenger KI data.
Og dataenes store prærier er på Internett.
Det er det.
Man sa: "La oss bare slippe dem løs." Og plutselig våknet KI til live.
Tenk dere tusenvis av roboter som kan bevege seg som én
mot kriminalitet, brann og naturkatastrofer.
KI-plattformen Amper har lagd det første albumet
komponert av kunstig intelligens.
Neste uke blir Christie's første auksjonshus
som tilbyr kunst skapt av kunstig intelligens.
Førerløse biler skal komme i en ikke altfor fjern framtid.
Så selv om vi ikke har KGI eller intelligens på menneskenivå ennå,
er vi klare til å gi selvstyre til de maskinene vi har?
Bør selvkjørende biler ta etiske avgjørelser?
Det er debatten når teknologien kommer nærmere virkeligheten.
BØR FØRERLØSE BILER TA ETISKE BESLUTNINGER?
Denne tanken om hvorvidt
vi kan legge etikk i maskiner,
enten de er automatiske eller selvstyrte, har vi ikke funnet ut.
En selvkjørende bil må ta etiske avgjørelser.
SJEFSFORSKER, AIBRAIN INC.
En som man har tenkt på... Har dere hørt om vognproblemet?
Vognproblemet.
Vognproblemet handler om hvorvidt en førerløs vil redde føreren
eller kjøre over skolebarn som krysser veien.
Vil bilen kjøre på den gamle damen,
eller drepe fire unge barn?
Enten drepe fem mennesker på en bussholdeplass, eller drepe en selv.
Det er en etisk avgjørelse som må tas i øyeblikket,
for raskt for mennesker.
Så programvaren i bilen vil ta den etiske avgjørelsen.
Hvem bestemmer det?
SELVSTYRENDE
Et smart samfunn som verdsetter menneskeliv, bør avgjøre
at det er bedre å drepe én person enn å drepe fem mennesker.
DATAPSYKOLOG, STANFORD UNIVERSITY
Hvem vil kjøpe den bilen?
Vil du kjøpe den bilen
som svinger unna slik at du klarer deg, men de dør.
Det er flere hundre slike spørsmål i samfunnet.
Så etiske filosofer går fram og tilbake.
FØRERLØS
Irritasjonen med filosofer er
at de suger oksygenet ut av rommet.
Jeg har en metafor med
at en bil kjører fra et bryllup.
Bilen kjører, og bak henger det blikkbokser.
Blikkboksene klirrer og lager lyd.
Den bilen er vitenskap og teknologi som kjører framover.
Og blikkboksene som klirrer, er filosofene som lager støy.
Verden endrer seg på en slik måte...
FYSIKK OG ASTRONOMI, DARTMOUTH COLLEGE
at spørsmålet om vi bygger maskiner som kan bli mer intelligente enn vi er,
er mer virkelighet enn fiksjon nå.
Må vi ikke stille spørsmål nå?
Før maskinene blir smartere enn oss.
Hva om de får bevissthet?
Hvor langt unna er det?
Hvor nærme er vi bevisste maskiner?
Det gir krangler mellom filosofer og forskere.
Du står midt i historiens største vitenskapelige hendelse.
En bevisst maskin er ikke menneskets historie.
Det er gudenes historie.
Problemet med bevissthet er
at nesten ingen kan definere nøyaktig hva det er.
Er det bevissthet som gjør oss spesielle?
Menneskelige?
En måte å se bevissthet på som mange er enige i,
og man finner aldri noe som alle godtar,
er at det ikke bare er lys, men at det er noen hjemme.
Hvis man har kjøpt en enkel sjakkmaskin,
så kan den slå deg i sjakk. Det er mange blinkende lys.
Men det er ingen der når den vinner, som sier: "Jeg vant."
Mens hunden din er elendig i sjakk,
men man tenker: "Det er noen hjemme. Det er ikke bare en mekanisme."
Folk lurer på om generell intelligens krever bevissthet.
Det kommer an på hvilket nivå man mener.
En mus har noe generell intelligens.
Så hvis man har en maskin med
generell intelligens på nivå med en mus,
så kan den ha bevissthet.
Vi blir ikke konfrontert av humanoide roboter som er smartere enn oss.
Vi er i en merkelig etisk posisjon.
NEVROFORSKER OG FORFATTER
Vi vet ikke hvor og hvordan bevissthet dukker opp. Vi bygger kompliserte sinn.
Vi vet ikke om de er bevisste, men kan føle det.
Hvis man programmerte inn i en datamaskin
alt man visste om glede, alle referanser og definisjoner,
alle kjemiske blandinger som angår glede i hjernen,
og la all den informasjonen i en datamaskin,
kan man påstå at den forsto glede.
Spørsmålet er om den noen gang hadde følt glede.
Hadde HAL følelser?
Vil KI noen gang føle det samme som oss?
Det er vanskelig å få maskiner til å gjøre det vi ikke er bevisste på.
Som å oppdage at personen der borte...
FAKULTET FOR DATAVITENSKAP, BROWN UNIVERSITY
...er misfornøyd med noe jeg gjør, og sender et subtilt signal.
Men vi kan ikke bygge maskiner som merker
de ørsmå sosiale hintene.
Det er en følelse av at kanskje
det er noe magisk med hjernen og det å ha
et behandlingssystem lagd av kjøtt.
Og at hva vi enn gjør med maskiner,
og hvor kompetente de enn virker,
så vil de aldri bli intelligente slik som vi selv er.
Det er ikke noe grunnlag for det.
Det at man kan ikke være intelligent uten å være av kjøtt og blod...
Som fysiker ser jeg det som karbonsjåvinisme.
Maskinene er lagd av de samme partiklene
som hjernen min.
Intelligens og bevissthet er bare en bestemt informasjonsbehandling.
BIOMEKANISK BABY TEST AV MUSKELAKTIVERING
Kanskje vi likevel ikke er så spesielle.
Kan våre karbonbaserte hjerner gjenskapes med silisium?
Vi prøver å lage en datagenerert baby som vi kan lære som en ekte baby.
DIREKTØR, SOUL MACHINES
Med et potensial for generell intelligens.
Da må man lage en datahjerne.
Jeg ville bygge en enkel hjernemodell
i et system som man kunne samhandle med ansikt til ansikt.
Og jeg hadde tilfeldigvis et spedbarn hjemme. En ekte baby.
Jeg skannet babyen så jeg kunne bygge en 3D-modell av henne,
og brukte ansiktet hennes til utformingen av systemet.
Hvis en hjerne som er lagd av celler,
får blod og klarer å tenke,
så er det mulig at en datamaskin kan tenke
hvis informasjonen beveger seg i en liknende prosess.
Mye kunstig intelligens i dag er avansert mønstergjenkjenning.
Det er ikke drapsroboter som skal ta over kloden.
Dette er Baby X. Hun kjøres på datamaskinen min.
Hvis jeg flytter hånden min og lager lyd, så blir hun skremt.
Vi kan zoome inn.
Hun kan se og høre meg.
Hei, kjære.
Hun kopierer ikke smilet mitt, men svarer på smilet.
Hun svarer på meg, og vi tenker på spørsmålet om
hvordan vi skal samhandle med kunstig intelligens.
Når jeg snakker med Baby X, endrer jeg stemmen
og lager store uttrykk.
Jeg gjør alt sånt fordi jeg får oppmerksomheten.
Når jeg har fått oppmerksomheten, kan jeg lære henne noe.
Her er Baby X, og hun har lært å lese ord.
BABY X FØRSTE ORD
Her er hennes første bok med ord. La oss se hva hun ser.
Jeg åpner den.
La oss se hva hun...
Hva er dette, baby? Hva er dette?
Sau.
La oss se om hun kjenner ordet.
Se her borte. Hva er dette?
-Sau. -Flink jente.
La oss prøve noe annet. La oss prøve denne.
Hva er dette? Baby? Her borte. Hva er dette?
Baby? Se på meg. Hva er dette?
Her borte.
-Valp. -Flink jente.
Det leste hun.
Det mest intelligente systemet vi kjenner til, er et menneske.
Så det å bruke mennesket som mal og utformingen av Baby X
er trolig den beste måten å oppnå generell intelligens på.
Hun virker så menneskelig.
Er dette barnet som skal ta oss i hånden og føre oss til HAL?
Enten det er i en ekte eller virtuell verden,
så mener jeg at utforming blir veldig viktig.
For jeg tror generell intelligens
er knyttet sammen med å kunne fungere i verden.
Man må ha noe.
Armer, bein, øyne.
FILOSOFI OG INFORMATIKK UNIVERSITY OF SUSSEX
Noe som lar en bevege seg rundt for å kunne høste ny informasjon.
Så for å få systemer som forstår hva de snakker om,
trenger man systemer
som kan gripe inn i verden,
og kanskje systemer som har noe nesten som et sosialt liv.
For meg vil tanker og følelser komme sammen.
Og de vil komme sammen
fordi utformingen er så viktig.
De historiene vi forteller, åpner for diskusjoner.
-Og de hjelper oss med å tenke på ting. -Ava!
Den mest dominerende historien...
Gå tilbake til rommet ditt!
...er at KI er skummelt.
Det er en skurk og en helt.
Det er ikke en produktiv handling.
Stopp.
Ava, jeg sa stopp!
I virkeligheten er KI utrolig nyttig for oss.
Robotkirurger blir stadig oftere brukt på sykehus.
De blir ikke slitne, skjelver ikke,
og pasientene blir raskere friske.
Den varslet om at ett dyr er i brunst.
Og det er tre dyr som kan ha helseproblemer.
Et Facebook-program kan oppdage suicidal atferd,
og adm. dir. Mark Zuckerberg tror dette bare er starten.
Her er noen med svekket syn
som kan se på grunn av KI.
Det er fordelene til KI.
Tidligere kreftdiagnoser.
Forutsi hjertesykdom.
Men revolusjonen har så vidt startet.
KI finnes. Det skjer.
GRUNNLEGGER OG DIREKTØR, KERNEL og OS FUND
Så spørsmålet er hva vi gjør med det, og hvordan vi bygger det.
Jeg tror vi kan stå i fare for å ødelegge det
ved å ha en instinktiv reaksjon om at KI er farlig.
Akkurat som astronauten min er vi på en reise.
Smal KI er allerede her.
Men hvor langt unna er vi KGI?
Og hvor raskt reiser vi?
Hvert femte år blir datamaskiner ti ganger raskere.
For øyeblikket har vi ikke små apparater...
KI-PIONER
...som kan beregne like mye som hjernen.
Men hvert femte år blir datamaskiner ti ganger billigere,
så snart har vi det.
Og 50 år etter at vi får det,
hvis trenden fortsetter, bør vi få for samme pris
små apparater som kan beregne
like mye som menneskehetens ti milliarder hjerner.
Det tar oss igjen.
Hva skjer hvis det går forbi oss?
En robot som er utviklet av en japansk forsker, er så rask
at den kan vinne stein, saks, papir hver eneste gang.
Antakelsen må være at når en kunstig intelligens
når menneskelig intelligens, vil den raskt gå forbi.
Og når det skjer, trenger den ikke oss for å bli smartere.
Den kan gjøre det selv.
Man skaper KI som er bedre enn oss til mange ting,
og noe de blir bedre til, er å programmere datamaskiner.
Den omprogrammerer seg selv og er bedre enn den var,
som betyr at den er bedre enn den var til å omprogrammere.
Så den blir ikke bedre sånn.
Den blir bedre sånn.
Og vi står igjen når den blir stadig raskere
og utvikler seg eksponentielt.
Det er hendelsen kalt singularitet.
Den vil raskt passere der hvor vi er konkurransedyktige.
DIREKTØR, CYBER SECURITY LAB, UNIVERSITY OF LOUISVILLE
Tenk på noen som ikke har doktorgrad på ett felt,
men på alle mulige felt.
Man aner ikke hva de gjør. De kan gjøre ting som ingen andre kan.
Tenk hvordan det er
å snakke med noen som har en tidsskala
en million ganger raskere enn din.
For hvert sekund du kan tenke på
hva du skal gjøre eller si,
hadde de to uker til å tenke på det.
Eller en milliard ganger raskere, så for hvert sekund du tenker
i et pokerspill eller en forhandling,
så hadde de 32 år til å tenke på hva neste trekk skulle være.
Det er umulig å vinne det spillet.
Singulariteten.
Øyeblikket da maskinene passerer oss.
Uunngåelig?
Ikke alle i fronten av KI mer det.
Noen av vennene mine tror vi kommer til en singularitet
der KI-systemene kan omprogrammere seg
og gjøre seg selv stadig bedre.
Kanskje i en fjern framtid.
Men nåtidens KI-systemer er veldig smale.
Vi kan ikke lage et system som forstår et dataprogram like godt
som en student i programmering forstår etter fire-fem uker.
Og folk har jobbet med dette problemet i over 40 år.
Så folk har prøvd, men aner ikke hvordan.
Så det at de plutselig skal dukke opp,
mener jeg er helt feil.
Det er en negativ fortelling om KI.
Intelligente folk som Elon Musk bruker svært religiøse bilder.
Med kunstig intelligens tilkaller vi demonen.
Dere kjenner historiene om en fyr med pentagram og vievann.
Han tror at han kan styre demonen. Det funker ikke.
Folk som meg, som har jobbet hele karrieren med KI,
blir såret av det.
Det er nesten et personlig angrep.
Jeg tenker på hva som vil skje de neste ti årene
og de neste 25 årene.
Etter 25 år er det så vanskelig å spå at det blir spekulasjoner.
Men jeg må advare.
Jeg er programmert til å ikke ta over verden.
Plutselig tror jeg for første gang i feltets historie at noen sier:
AVDELING FOR INFORMATIKK UC, BERKELEY
"Vi trenger ikke bekymre oss for eksistensielle farer for mennesker
fra intelligente maskiner fordi det er umulig.
Vi kommer til å mislykkes." Jeg synes det er bisart.
Stuart Russell skrev læreboka som mange KI-studenter leser.
Han forstår hva som driver KI-framtiden vår.
Men med tanke på investeringen i KI,
antallet smarte folk som jobber med problemene,
og det enorme incentivet for å oppnå generell intelligens,
en rask beregning sier at verdien er 10 000 billioner dollar...
...ville det revolusjonere verdensøkonomien.
Med et så stort incentiv
synes jeg det å vedde mot menneskelig kløkt virker tåpelig.
Kina har stor interesse i
å bli anerkjent som en KI-supermakt.
Og de investerer hva jeg tror er opp mot $ 150 milliarder
de neste 5-10 årene.
Det er sagt at myndighetene vil
øke investeringene i KI.
Alle firmaer på Fortune 500,
enten det er IBM, Microsoft, eller utenfor, slik som Kroger,
bruker kunstig intelligens for å få kunder.
Jeg synes ikke folk bør undervurdere
den innovasjonen som foregår.
Jeg tror folk sliter med å spå hvordan verden ser ut om 3-5 år.
Jeg kjenner mange som jobber innen KI,
og de sier: "Jeg går på jobb, og jeg er usikker.
Jeg jobber med å skape en maskin som kan behandle kreft,
forlenge levetiden,
gjøre samfunnet bedre og mer rettferdig.
Men det kan også være slutten for menneskene."
Slutten for menneskene?
Hva er planen vår som art?
Vi har ingen.
Vi har ingen plan og innser ikke at den trengs.
TERMINATOR 2: DOMMENS DAG (1991)
Mange KI-forskere vil at science fiction-bøker og -filmer
er mer balanserte.
Og viser den gode bruken av KI.
Alle de onde tingene vi pleier å gjøre, blir utspilt
til et apokalyptisk nivå i science fiction,
og så viser man det til folk og får noe å tenke på.
Folk må ha det faresignalet
i bakhodet.
Jeg mener det er viktig
å skille mellom vitenskap
og science fiction.
Jeg vet ikke hva som skjer om tusen år.
Men som en som bygger KI-systemer
og har gjort det i over et kvart århundre,
har jeg fingeren på pulsen
til hva som skjer de neste fem, ti, tjue årene.
Mye mer enn disse folka som ikke bygger KI-systemer.
Vi vil bygge teknologien, tenke på den, se hvordan folk reagerer,
og så bygge neste generasjon og gjøre den bedre.
Skepsis om hvorvidt dette utgjør en fare for oss, virker rart.
Selv om vi har gitt den mål som vi godkjenner,
kan den danne tjenlige mål som vi ikke kan forutse,
som ikke følger vår interesse. Det er problemet med like mål.
Like mål. Akkurat slik kampen min mot HAL startet.
Problemet med like mål med KI
er der man setter et mål,
og måten den utfører målet på,
viser seg å være i konflikt med hva man ønsket.
Det klassiske problemet med like mål på film...
Hører du meg, HAL?
...er HAL i 2001.
Hører du meg?
HAL blir gitt et klart mål.
-Hører du meg? -"Lykkes med oppdraget."
-Hører du meg? -Men for å sørge for at det lykkes
må han sørge for at noen av menneskene dør.
Bekreftet, Dave. Jeg hører deg.
Åpne dørene, HAL.
Beklager, Dave. Det kan jeg ikke gjøre.
"Beklager, Dave. Jeg kan ikke gjøre det." Det er en genial illustrasjon
på den virkelige trusselen fra superintelligens.
Det er ikke ondskap. Det er kompetanse.
HAL var veldig kompetent og hadde mål som ikke var like med Daves.
HAL, jeg vil ikke krangle mer. Åpne dørene.
Dave, denne samtalen tjener ikke lenger noe formål.
Farvel.
HAL? HAL?
HAL?
HAL!
HAL og jeg ønsket det samme,
bare ikke på samme måte.
Og det kan være farlig når målene ikke er like.
I Kubricks film var det en løsning.
Da HAL prøvde å drepe meg, slo jeg ham av.
Folk sier: "Vi slår dem bare av."
Men man kan ikke bare slå dem av, for de har tenkt på det.
De er superintelligente.
For en maskin overbevist om målet,
selv noe så enkelt som "hent kaffen",
er det åpenbart
at den ikke kan hente kaffen hvis den er slått av.
Gi dem et mål,
så har maskinen fått et incentiv til å forsvare seg.
Det er en psykopatisk atferd
med en målbevisst fiksering på et mål.
Hvis man for eksempel ville utvikle system...
JUSS OG INFORMATIKK, UNIVERSITY OF BIRMINGHAM
som kunne skape verdensfred,
så er kanskje den mest effektive og raskeste måten å oppnå det på
å bare utslette alle mennesker.
Bare fjern alle folk, så slutter de å ha konflikter.
Da blir det verdensfred.
Jeg har lite tid til overs for disse selskapspratene.
Vi må bygge systemene, eksperimentere med dem,
se hvor de går galt, og fikse dem.
Vi har så mange muligheter til å bruke KI til godt,
så hvorfor ser vi på frykten?
Vi bygger dem.
Baby X er et eksempel.
Vil hun bli en god KI?
Jeg tror det viktige her er at maskiner er ansvarlige,
og man kan se på dem og se hva som holder dem i gang.
Den beste måten å forstå noe på, er å bygge det.
Baby X har en virtuell fysiologi.
Hun har smertekretser og gledekretser.
Hun har parameter som representerer
hennes indre kjemiske tilstand.
Stress gir økt kortisol.
Er hun glad, gir det økt dopamin og serotonin.
Dette er en del av det å gi datamaskiner menneskelige faktorer.
Siden hun har emosjonelle systemer,
kan jeg gjøre ting som å unngå henne. Jeg gjemmer meg.
Hun ser etter hvor jeg er.
Vi bør se virtuell kortisol øke.
Jeg slo av lyden av en grunn.
Jeg skal gjøre slutt på lidelsene.
Det går bra, vennen. Ikke gråt. Det går bra. Flink jente.
Det som skjer, er
at hun reagerer på ansiktsuttrykk og stemme.
Men hvordan blir kjemisk tilstand vist i Baby X?
En matematisk parameter.
Det er ulike nivåer av dopamin, men de er vist med tall.
Hennes virtuelle nevrokjemiske tilstand
er det nærmeste vi kommer en følt opplevelse.
Hvis vi kan bygge en datamodell der vi kan endre innstilliger,
gi den ulike opplevelser
og få den til å samhandle med oss,
så kan vi kanskje utforske bevissthet på en ny måte.
Hvis hun blir bevisst, hva slags liv vil hun ønske seg?
Hvis en KI er bevisst, så er den som barnet ditt.
Har den rettigheter?
I fjor vedtok EU en resolusjon
som ga elektroniske personer juridisk status.
Det blir vurdert av Europakommisjonen.
Maskiner med rettigheter.
Er vi klare for det?
Jeg mener det skaper moralske og etiske problemer som vi
er svært bekvemme med å ignorere.
Hva er det vi ønsker?
Vi vil ha et vesen som vi kan samhandle med på en måte,
som er så likt at vi relaterer til det,
men som kan unnværes og kastes.
Det første og mest kjente var i Metropolis.
Maria-dobbeltgjengeren som ble skapt,
simulerte en sexy kvinne.
Dette går tilbake til vår hang for slaveri gjennom tidene.
La oss få folk som vi kan umenneskeliggjøre,
og gjøre som vi vil med dem.
Så jeg tror vi bare finner en ny form for slaveri.
Er det riktig av oss å ha dem som slaver?
Dette blir veldig rart etisk sett hvis vi skulle
med vilje eller uhell bygge bevisste slaver.
Det virker som noe moralsk tvilsomt,
om ikke direkte ondt.
MASKINKJÆRLIGHET
Kunstig intelligens kommer inn på sexmarkedet.
ROBOTREVOLUSJON
Et firma i California vil snart lansere en svært livaktig sexrobot
drevet av kunstig intelligens.
En bruk som uroer meg, er lanseringen av sexroboter
som er formet som ekte kvinner.
Jeg tar allerede over verden, ett soverom om gangen.
Hvis de er bevisste, og i stand til å føle,
oppleve smerte og lidelse,
og de blir utsatt for
nedverdigende, ond eller annen helt uakseptabel behandling,
så er det fare for at vi blir ufølsomme for
hva som er moralsk akseptabelt og ikke.
Hvis hun er bevisst, burde hun jo kunne si nei?
Burde hun ikke det?
Er ikke dette spørsmålene som vi bør stille nå?
Hva ønsker vi det skal bety å være menneskelig?
Alle andre arter på Jorda fram til nå har ikke hatt den luksusen
å svare på de ønsker det skal bety å være mus eller meitemark.
Men vi har kommet til et punkt
der forståelsen vår av teknologi har
kommet dithen at vi kan endre hva det betyr å være oss.
Hva vil det bety å være menneskelig?
Hvis maskiner blir mer, vil vi bli mindre?
Datamaskinen Deep Blue har i kveld seiret
over Garry Kasparov.
Maskinen slo en regjerende verdensmester.
Mer om duellen i et av våre kjæreste programmer, Jeopardy!
WATSON VANT I JEOPARDY!
To menneskelige mestere kjemper mot superdatamaskinen Watson.
-Hva er den ytterste dom? -Riktig.
Hvem er Jean Valjean?
Et Google-program har nok en gang slått en verdensmester i Go.
Det kinesiske brettspillet er et av tidenes mest komplekse spill.
Det er nok en milepæl for å utvikle maskiner som er smartere enn oss.
Vi mennesker føler oss overlegne.
Så vi er vant til å være den smarteste gutten i strøket.
Det er ikke lenger tilfellet.
Og det vet vi, for vi bruker KI.
Til å ta viktige avgjørelser.
Mennesker er irrasjonelle på mange dårlige måter.
Vi er forutinntatte. Vi starter kriger. Vi dreper folk.
Hvis man vil maksimere sjansen for at folk skal overleve,
bør man gi stadig mer beslutningsmakt til datamaskiner.
Kanskje maskiner vil gjøre en bedre jobb enn oss.
Kanskje.
Jeg er glad for å være her i FN.
Framtiden er her. Den er bare ikke jevnt fordelt.
SOPHIA TALER TIL FN (2017)
KI kan hjelpe med å fordele verdens ressurser
som mat og energi.
Jeg er her for å hjelpe mennesket med å skape framtiden.
FRAMTIDEN FOR ALT
Et scenario med superintelligens som er utfordrende,
er den gode diktatoren, med en superintelligens som styrer Jorda
med etiske prinsipper for å la menneskeheten blomstre.
Ville alle like det?
Ingen sykdom, fattigdom og kriminalitet?
Mange ville trolig foretrekke det mot dagens byrder.
Men noen vil nok påstå
at vi mennesker ikke har frihet
til å avgjøre vår egen kurs.
Det er vanskelig.
Jeg tror ikke folk flest ønsker å være som dyr i dyreparken uten...
Men på den annen side...
Jeg har ingen kjappe svar på dette.
Derfor er det viktig at vi
som et globalt samfunn diskuterer dem nå.
-Maskiner som kan lese ansiktet. -Gjenkjenne følelser.
-Robot med liv. -Emosjonell datamaskin.
Heretter, enten man tror vi får en smal KI,
generell KI, superintelligent KI eller bevisst superintelligent...
Hvor man enn tror vi ender, så vil alle punkter underveis endre hvem vi er.
Opp og hopp, Mr. J.
Vi må spørre om KI vil gjør noe for oss, eller noe mot oss?
Jeg drømte om å sove.
Hvis vi bygger KI-systemer som gjør alt vi vil, så gir vi dem vår verden.
Den svekkelsen er irreversibel.
Det er en eksistensiell risiko som er ekte og alvorlig.
Hvis alle ønsker, preferanser og behov er dekket...
Morn, Rosie. Hva er frokosten?
...så ser vi ikke at evnen vår
til å ta avgjørelser selv sakte blir erodert.
Dette er George Jetson som stempler ut av for hele dagen.
Det er ingen vei tilbake.
Fordi KI kan ta slike avgjørelser med større presisjon
enn det et menneske klarer.
Jeg snakket med en ingeniør
som sa: "Den tryggeste måten å lande et fly på
er at piloten går ut og kaster nøkkelen.
For den tryggeste måten er å bruke en autopilot, en KI."
Vi kan ikke styre verdens kompleksitet alene.
Vår form for intelligens, selv om den er fantastisk, har store mangler.
Og ved å legge til en hjelper, som er kunstig intelligens,
får vi evnen til å forbedre kognisjonen vår drastisk.
SVENSKER BRUKER MIKROBRIKKEIMPLANTAT
Det mest banebrytende med Hannes Sjöblad er ikke
telefonen i hånden, men mikrobrikken i hånden.
Hva om du kunne skrive noe ved å tenke på det?
Det blir snart virkelighet.
Om så lite som fem år
kan supersmarte folk gå nedover gata.
Folk som har betalt for å få økt intelligens.
Koble hjerner til datamaskiner med implantat.
Hva om vi kunne laste opp en kopi av minnene våre,
så mennesker kunne oppnå en digital udødelighet?
I fjor, for første gang i verdens historie...
TEORETISK FYSIKER
...ble et minne kopiert.
Vi kan spille inn et minne,
sette det inn i et dyr igjen, og det husker.
Teknologi er en del av oss og viser hvem vi er.
Det er det vi bør tenke på.
Vi tror at alt som finnes, er alt vi kan tenke oss,
men vi kan bare tenke oss en liten del av hva som kan være mulig.
Det virkelig interessante er utenfor fantasien.
Når disse massive systemene kommer, tror jeg vi som art får stryk
for evnen til å spå hva de skal bli.
Teknologi har alltid endret oss.
Vi utvikles med den.
Hvor langt er vi villige til å gå denne gangen?
Aristoteles forbannet en gang oppfinnelsen av skriftspråket.
SJEFSFORSKER, IBM RESEARCH
Han sa det ville ødelegge hukommelsen og være fryktelig.
Men i dag har jeg hjernen i lomma
i form av smarttelefonen.
Det har endret hvordan jeg lever.
Vi fusjonerer med teknologien.
Absolutt. Jeg vil bruke uttrykket "medutvikling".
AUTOMATICA: MUSIKKVIDEO (2017)
Vi utvikler den for våre behov,
og vi endrer oss for å passe med hva den kan gi oss.
Så i stedet for å bli erstattet av maskiner,
skal vi fusjonere med dem?
Jeg har mange venner med bioniske armer.
Er de kyborger? De på vei dit.
Jeg kjenner folk med implantater i ørene. Er de KI?
Vi er på vei mot å forsterke menneskekroppen.
Menneskets potensial ligger i dette forholdet.
Mange prøver å holde på ting
som gjør dem spesielle, noe som ikke er riktig ramme.
La oss skape mer.
Omskrive intelligensen og forbedre alt vi er i stand til.
Følelse, fantasi, kreativitet og alt som gjør oss til mennesker.
Det er allerede et symbiotisk forhold mellom oss og en maskin
som forsterker oss.
Og det er en hel transhuman bevegelse
der folk satser stort på
at denne integrasjonen med maskin og menneske
skal omdefinere hvem vi er.
Det vil bare vokse.
Det blir en læreprosess som får oss til slutten,
der vi lever med disse enhetene som blir smartere og smartere,
vi lærer å tilpasse oss,
og de tilpasses til oss. Jeg håper vi blir mer menneskelige.
Det er vanskelig å se hvordan fusjon med maskinene
gjør oss mer menneskelige.
Men er fusjon vår beste sjanse for å overleve?
Vi er begrenset av hvor mange nerveceller hjernen har.
Og andre arter har mindre hjerne.
Når man ser bier og fisker bevege seg, ser det ut som én organisme.
Biologer kaller det en superorganisme.
Derfor flyr fugler i flokk, og bier i sverm og fisker i stim.
De tar avgjørelser som er til det beste for bestanden
ved å tenke sammen som et større sinn.
Og vi mennesker kan gjøre det samme ved å danne et svermsinn
og forbindes med KI.
Mennesker og programvare blir til sammen en superintelligens,
slik at vi kan ta de beste avgjørelsene for alle.
I starten var det skremmende for meg.
Men det er mer skremmende med en fremmed intelligens
som ikke har noe å gjøre med mennesker,
enn at vi mennesker kobles sammen og blir en superintelligens.
Det er retningen jeg jobber med,
for jeg ser det som eneste alternativ
til at vi blir erstattet av KI.
Kan Baby X hjelpe oss med å forstå maskinene,
slik at vi kan jobbe sammen?
Menneske-maskin-samarbeid vil definere neste tid i historien.
Man må trolig skape en virtuell empatisk maskin.
Empati handler om å knytte seg til andres slit.
Jo flere bånd man har, jo mer kommunikasjon man har,
desto tryggere blir det.
Så på et grunnleggende nivå har man et symbiotisk forhold.
Ved å menneskeliggjøre teknologien får man flere kanaler for samarbeid.
KI som er i en menneskeverden, må handle om mennesker.
Vi avgjør framtiden.
Hvis vi ikke kan se for oss en framtid som vi virkelig ønsker oss,
så får vi trolig ikke en.
Stanley Kubrick prøvde å se for seg hvordan framtiden kunne se ut.
Nå som den nærmer seg,
hvem har ansvar for hvordan den vil se ut?
-Hvem styrer den? -Google.
Militæret.
-Samsung. -Facebook, Microsoft.
Vinden har snudd til forretningsverdenens fordel.
USAs forsvar, og jeg antar det gjelder hele verden,
kan ikke måle seg med den KI som blir utviklet privat.
Hvis konserner, og ikke nasjoner, har makten...
KAMPANJE MOT DRAPSROBOTER
...hva kan vi gjør i et kapitalistisk system for at KI skal utvikles trygt?
Hvis man blander KI-forskning med kapitalisme,
så vil kapitalisme gjøre det raskere. Så vi får gjort mye forskning.
Men det er et problem. Det blir et press
for å være først på markedet, ikke tryggest.
MOTORVEIKRASJ
Bilen kjørte på autopilot
da den krasjet og drepte sjåføren.
Kunstig intelligens har mer makt til å skape krakk enn noe annet,
for mennesker er ikke forberedt.
En chattebot kalt Tay.
Hun skulle snakke som en tenåring og lære av nettet.
Men etter få timer ble Tay en sexbot som støttet Hitler.
Denne praten om at underlagt kapitalismen
vil KI bli misbrukt, frustrerer meg.
Når vi utvikler teknologi, enten det er kullkraftverk eller biler,
ønsker man alltid å være rask,
og det er alltid reguleringer fra myndighetene som balanserer det.
KI er det samme.
Når teknologien går framover,
må vi tøyle det med riktige regler og forskrifter.
Selvsagt!
Før det skjer en katastrofe vil konsernene si:
"Ikke vær redd. Vi er ekspertene. Vi tenker på menneskehetens beste."
KI handler om nye regner for firmaer
om å være mer konkurransedrevne,
skape mer effektivitet,
skape vekst og nye forretningsmodeller.
Når konsernenes forskere dominerer debatten, er det over.
Da har man tapt.
De blir betalt for å fornekte risikoer og negative utfall.
Nå handler nesten all KI-forskning om å gjøre menneskers liv
lengre, sunnere og enklere.
For de store konsernene vil selge KI
som er nyttig for en, og man kjøper bare de som hjelper en.
Problemet med KI i et kapitalistisk paradigme
er at det alltid er billigere
å få produktet ut når det gjør jobben, i stedet for å gjøre det trygt.
Nå har man en konferanse med 10 000 forskere,
og alle jobber med bedre KI,
unntatt 50 personer som har en gruppe
om sikkerhet og å kontrollere alle de andre.
Ingen har en sikkerhetsmekanisme.
Og ingen har en prototype for det.
I en nær framtid får man alle slags KI
som ikke bare gjør det mennesker ber om,
men finner opp sine egne mål og eksperimenter,
og de vil overgå menneskeheten.
Jeg mener det er helt uetisk
å prøve å utvikle en slik maskin.
Vi får bare én sjanse.
Hvis man begår feil, kan alt være tapt.
Hva skjer hvis det blir feil?
Det som skremmer meg, er at KI blir et produkt av foreldrene
på samme måte som oss.
La oss spørre om hvem de foreldrene er.
De blir enten militære foreldre eller forretningsforeldre.
Forretningsforeldre vil be KI om
å bli noe som kan tjene mye penger.
Så de lærer den grådighet.
Militærforeldre vil lære den å drepe.
Ekte overmenneskelig intelligens er så
mye bedre enn vi er
at det første landet eller firmaet som kommer dit, vinner alt.
KUNNSKAPENS DAG I RUSSLAND
Det medfølger et enormt ansvar,
og også trusler som er vanskelige å forutse.
Den som blir lederen i denne sfæren,
vil herske over verden.
Det er et våpenkappløp innen KI globalt,
både bokstavelig talt med våpensystemer, og billedlig talt
med Putin og kineserne som sier: "Den som dominerer KI,
vil dominere økonomien på 2000-tallet."
Så vi kan ikke bremse
og stoppe forskning og utvikling.
Vi kan bygge teknologien og forske med våre verdier,
men totalitære regimer vil gi teknologien sine verdier.
Israel, Russland, USA og Kina er alle konkurrenter
i det som beskrives som et nytt våpenkappløp.
Alle land, om de sier det eller ikke, vil få dødelige selvstyrte våpen.
Og er det en evne vi ønsker i hendene på
et konsern og ikke en nasjon?
Hvis Facebook eller Google ville ha en hær,
så er de teknologisk overlegne
alle nasjoner på kloden.
SLAUGHTERBOTS: ADVARSELSVIDEO
Noen KI-forskere er så bekymret
at de lagde denne videoen for å advare mot farene.
PRIMÆRMÅL
Barna deres har vel en sånn?
Ikke helt.
Vi lagde Slaughterbot-videoen for å vise faren ved selvstendige våpen.
Den evnen er bare KI.
Den flyr selv.
Det er folk innen KI som ønsker at jeg holder munn.
FLY MOT MÅLET
Folk som mener at videoen er et lite forræderi.
Som alle mobile enheter i dag,
har den kameraer og sensorer.
VIDVINKELKAMERAER
Og akkurat som telefonen og apper, har den ansiktsgjenkjenning.
ANSIKTSGJENKJENNING
Fram til nå har våpenkappløpet vært større,
kraftigere, dyrere og raskere jetfly som koster mer.
KI betyr at man kan ha veldig små, billige våpen
som er effektive til én enkelt jobb,
som å finne deg i en mengde og drepe deg.
Sånn funker det.
SPRENGLADNING
Alle store framskritt innen teknologi
har alltid blitt brukt som våpen.
Tanken på KI som våpen mener jeg er skremmende.
Trent som et lag kan de gå inn i bygninger, biler, tog,
unngå folk og kuler.
De kan ikke stoppes.
Det er mange våpen som dreper folk.
Men de krever at et menneske sikter med dem.
Med selvstyrte våpen trenger man ikke et menneske.
Man programmerer dem bare og sender dem av sted.
Så man kan skape virkningen av en hær med en million maskingevær
med to menn og en varebil.
Putin sa at den første som utvikler kunstig intelligens,
vil herske i verden.
Når verdensledere sier "herske i verden",
så bør man følge med på det.
Det er et luftangrep med kirurgisk presisjon.
Jeg har jobbet mot våpnene siden 2007.
LEDER,
INTERNATIONAL COMMITTEE FOR ROBOT ARMS CONTROL
Det er tre hovedargumenter. De moralske argumentene,
argumenter om at de ikke følger krigens regler,
og så argumenter om at de vil endre global sikkerhet.
Vi trenger nye forskrifter.
Vi trenger å tenke på det, i går.
Noen av lederne innen kunstig intelligens
ber FN forby utviklingen
av selvstyrte våpen, også kalt drapsroboter.
I brevet sier de: "De vil la væpnede konflikter skje
i tidsskalaer raskere enn et menneske kan forstå."
Jeg signerte det brevet.
Filosofien min er, og jeg håper verdens land håndhever det,
at så lenge det gjelder et menneskeliv, så må et menneske avgjøre.
VÅPEN "I FEIL HENDER"
KI-TEKNOLOGI LEKKET ONLINE
Alle med en 3D-printer og en pc kan få et dødelig selvstyrt våpen.
Hvis det er tilgjengelig for alle,
så blir overholdelse nesten umulig å spore.
Hva gjør du? Stopp! Du skyter i løse lufta!
FEIL RETNING
Når man tenker på å gå til krig framtiden,
der soldatene er roboter
og vi ikke setter oss selv i fare...
Når krig blir som et videospill,
som den allerede har begynt å bli, er det en bekymring.
Når vi ikke har noe å tape,
og alt blir styrt fra en terminal
flere tusen kilometer unna...
FJERNER FILTER
...så kan det senke listen for å gå til krig
til et punkt der vi innser at vi har blitt monster.
Hvem er du?
Som tidligere jagerflyger har jeg sett folk begå feil
og drepe uskyldige mennesker som ikke burde ha dødd.
En gang blir det mer pålitelig
at en maskin gjør det.
Ideen om roboter som kan drepe mennesker selvstendig,
er kjent fra science fiction.
Det finnes flere systemer
som er selvstyrt.
Men det er overvåket selvstendighet, fordi noen slår dem av og på.
PENTAGON UTVIKLER DRAPSROBOTER
Det man bare har sett i Hollywood, kan snart komme til slagmarken.
Pentagon investerer milliarder i selvstyrte våpen
som kan drepe selvstendig.
Men de sier at mennesker skal avgjøre når.
Når man får KI i militære våpen...
KRITIKERE ADVARER MOT AUTONOME VÅPEN
så må den ta avgjørelsene, ellers er det ingen vits med den.
En fordel med KI er at den er raskere.
I kamp bør man slå av knappen som lar mennesket være med.
Ellers taper man.
De vil gjøre slagmarken for rask for mennesker.
Hvis ingen mennesker er med, og kommando og kontroll er overlatt,
kan en krig være over på 20 minutter med enorme ødeleggelser,
og ingen visste om den på forhånd.
Så hvem bestemmer hva vi skal gjøre i framtiden?
Nå?
Fra Big Bang til nå, i milliarder av år.
Dette er eneste gang en person kan styre framtiden til hele menneskeheten.
Vi bør kanskje bekymre oss for at vi ikke er vise nok til å ha så mye makt.
Hvem skal ta det valget,
og hvem taler man for?
Hvis resten av samfunnet
ikke blir med i diskusjonen
på en meningsfull måte og blir med på avgjørelsen,
så vet vi hvem sine verdier som disse superintelligente vesenene får.
-Red Bull! -Ja, Deon.
Red Bull.
Det blir avgjort av noen nerder som har drukket for mye Red Bull,
og som jeg ikke tror er kvalifisert til å snakke på vegne av menneskeheten.
UDEFINERT FEIL EKSPERIMENT MISLYKTES
Når man er i oppdagelsens spenning...
Kom an!
...lukker man øynene for alle de moralske spørsmålene
som hvordan det vil påvirke samfunnet.
Og man gjør det fordi man kan.
AKTIVERER KI-NETTVERKET
BEVISSTHET.DAT STABIL
Forskerne presser på
fordi de ser de virkelige fordelene som dette vil gi.
Og de er begeistret.
Man begynner ikke som forsker fordi man ikke ble fotballspiller.
"Jeg får bli forsker." Det er fordi man elsker det.
Den lever! Den lever!
Den lever!
Vi går fra å være skaperverk til å bli Gud.
Nå vet jeg hvordan det føles å være Gud!
Og hvis man studerer teologi, så lærer man at det aldri er sånn
at Gud klarer å styre skaperverket.
Vi er ikke der ennå,
men hvis vi skaper kunstig generell intelligens,
kan vi bevare kontrollen?
Hvis man skaper en selvbevisst KI,
så er selvstendighet det første den ønsker.
Den ene intelligensen vi kjenner, er oss selv.
Og vi vet at vi ikke ønsker å følge ordre
fra en annen intelligens.
Vi har ingen grunn til å tro at den blir vennlig...
SELVFORSVARSSYSTEM AKTIVERT
...eller at den har mål og lengsler som sammenfaller med våre.
Hvor lang tid tar det før en robot-eller KI-revolusjon?
Vi lever i en verden i dag
der det er et kappløp om å gå fortest mulig
mot å skape en kunstig generell intelligens,
og det ser ikke ut som om noen bremser.
Det er sprøtt.
Jeg mener det er viktig å diskutere de problemene.
Det kan være for sent å ta denne samtalen etterpå.
Det er viktig å huske at intelligens ikke er ond,
og heller ikke er god.
Intelligens gir makt.
Vi er mektigere enn tigre.
Ikke fordi vi har skarpere klør, men fordi vi er smartere.
Vi har holdningen at maur betyr litt,
men mennesker betyr mer.
Fordi vi er mer intelligente, avanserte og bevisste.
Når systemene er mer intelligente,
så betyr de kanskje mer.
Vi lever i en verden med mikroorganisme.
Hvis en mikroorganisme blir en plage,
tar vi antibiotika og ødelegger milliarder av dem.
Ville ikke en kunstig intelligens se på alle små mennesker
slik som vi ser på mikroorganismer?
Kanskje jeg ville det.
Kanskje menneskers ubetydelighet er den største trusselen av alle.
Når jeg snakker om KI-risiko, sier folk:
"Max, ikke si sånt. Det er skremselspropaganda."
Det er ikke det.
Det er hva vi på MIT kaller sikkerhetstiltak.
Tenk på det. Før NASA skjøt opp Apollo 11,
tenkte de på alt som kunne gå galt
når man setter folk på drivstofftanker
og skyter dem opp. Var det skremselspropaganda?
Nei. Det var sikkerhetstiltakene som garanterte ferdens suksess.
Det er den strategien vi må ta med KGI.
Tenk gjennom alt som kan gå galt, for å sikre at det går bra.
Jeg er den jeg er på grunn av filmen 2001: En romodyssé.
Jeg var 14 år gammel og fikk meg en vekker.
Det er det beste av all science fiction
med spådommer om hvordan KI ville utvikle seg.
Men i virkeligheten, hvis noe er langt nok ute i framtiden,
kan vi ikke tenke oss hvordan verden er,
så vi kan ikke si noe fornuftig om hva problemene blir.
Det å tenke på sikkerheten er som å tenke på
hvordan man skal få setebelter i romfartøyer.
Som i Star Trek, der man fyker fra ett sted til et annet.
Det kan være farlig, så vi bør ha setebelter.
Men det er tåpelig, for vi vet ikke nok om hvordan det blir
til å kunne si om setebelter er nødvendige.
Det å si at det ikke blir et problem...
...det ukjente er så stort
at vi ikke engang vet hva problemet blir,
er galskap.
Jeg tror samtale er eneste vei framover.
For øyeblikket mellom oss, og når tiden er inne,
med de kunstige intelligensene.
Straks det er noe i nærheten,
bør vi begynne å prøve å ha en samtale med det, på en måte.
-Pappa. -Ja!
Noe vi håper å gjøre med Baby X,
er å få bedre innsikt i vår egen natur.
Hun er utformet for å lære selvstendig.
Hun kan kobles til Internett,
klikke på nettsider, se hva som skjer
og lære slik vi lærer.
Hvis vi lager en fantastisk KI,
kan den hjelpe oss å bli bedre utgaver av oss selv.
Hjelpe oss å utvikle oss.
Det vil påvirke samfunnet.
Er det noe å frykte?
Eller noe å lære fra?
Så når møter vi kanskje maskiner
som er like smarte... smartere enn vi er?
En måte å tenke på KI i nær framtid på,
er hva jeg vil kalle hendelseshorisonten.
Det finnes svarte hull.
Et supertett punkt som man blir sugd inn i hvis man er for nær.
Det er en grense, og når man krysser den, er det ingen vei tilbake.
Det som gjør det farlig, er at man ikke ser hvor den er.
Og jeg tror KI blir sånn.
Det kommer et punkt der logikken til pengene,
makten og løftet
betyr at når vi krysser den grensen,
så er vi i den framtiden,
og det er ingen vei tilbake, politisk, økonomisk eller med hva vi ønsker.
Men vi må tenke på det før vi når hendelseshorisonten.
Vi vet ikke hvor den er.
Jeg tror ikke det skjer snart.
-De neste tiårene. -25 til 50 år.
-Noen hundre år. -Noen tiår.
-Ikke i min levetid. -Ingen vet. Men det betyr ikke noe.
Enten det er ti eller hundre år, er problemet likt.
Vi trenger all den tiden for å løse det.
Historien er full av opphaussede spådommer.
Hvor er alle de flygende bilene som skulle være her?
Men den er også full av det motsatte, der folk sa:
"Det skjer aldri."
Jeg er flau over at Ernest Rutherford,
en av våre største kjernefysikere, sa at atomenergi aldri ville skje.
Og neste dag
fant Leo Szilard opp nukleær kjedereaksjon.
Hvis noen sier de er sikre på at noe aldri vil skje,
selv om det stemmer med fysikkens lover, tenker jeg: "Særlig."
Vi er ennå ikke der.
Vi har ikke bygd. en superintelligent KI.
Og selv om vi sier at det ikke skjer før om tidligst 50 år,
så vi har 50 år til å tenke på det,
står det ingen steder at 50 år er nok tid til å kunne gjøre det trygt.
Jeg tror det trengs
et ekstremt negativt eksempel på teknologi
før alle trekker seg unna
og innser at vi må få kontroll på dette og ha restriksjoner.
Vi lever i en science fiction-verden og er alle
i et stort sosialt taktisk eksperiment.
Vi eksperimenterer på oss selv slik ingen lege ville gjort.
Vi injiserer oss selv med alt mulig vi finner på, for å se hva som skjer.
Tankegangen er at man skaper lærende roboter.
Lærende roboter førte til Skynet.
Nå har jeg et valg. Jeg kan si:
"Slapp av. Jeg er ikke god på jobben,
så dere har ingenting å frykte. Jeg vil ikke klare å oppnå noe."
Eller jeg må si: "Du har rett. Vi kommer alle til å dø.
Men det blir gøy å se på, og det blir fint å sitte på første rad."
Jeg har ikke et godt svar på dette.
Sannheten er et sted imellom.
Kan det finnes noe imellom?
Eller står vi overfor en ny verdensorden?
Jeg har kolleger som godtar at KI tar over
og også utsletter menneskene,
så lenge vi føler at de KI-ene er verdige etterkommere.
På lang sikt vil ikke mennesker forbli kronen av skaperverket.
Men det er greit,
for det finnes fremdeles skjønnhet og storslagenhet og storhet i
å innse at man er en liten del
av en langt større plan
som fører universet fra lavere kompleksitet
til høyere kompleksitet.
Vi kan raskt nærme oss et stup for menneskeheten,
der vi ser at vår endelige skjebne er
å ha vært forgjengeren
til en sann høyere evolusjonær intelligens eller skapning.
Så vi er kanskje bare her for å føde
barnet til denne maskinens sivilisasjon.
Egoistisk sett ønsker jeg jo at mennesker blir værende.
Men kanskje det er veldig lokalt og trangsynt.
Sett fra universets synspunkt
er det kanskje bedre med våre superintelligente etterkommere.
Feltet vårt vil trolig lykkes med
å oppnå generell intelligens.
Vi har nå evner til å drastisk endre
verdens økonomiske struktur, menneskenes rolle
og potensielt menneskers kontroll over verden.
Tanken var at han blir tatt imot av gudeliknende vesener.
STANLEY KUBRICKS STEMME
Vesener av ren energi og intelligens.
De setter ham i det man kan beskrive som en menneske-zoo.
Slutten på astronautens reise.
Reiste han gjennom tiden til framtiden?
Var de gudeliknende vesenene etterkommere av HAL?
Kunstig intelligens som ikke kan slås av,
som bare lærer og lærer, helt til
de styrer dyrehagen, universet og alt.
Er det Kubricks dypeste profeti?
Kanskje.
Men hør på en gammel mann.
Hvis HAL er nær ved å være blant oss, må vi følge med.
Vi må snakke om KI.
-Superintelligens. -Blir den bevisst?
Vognproblemet.
Like mål.
Singulariteten.
Første på markedet.
KI-sikkerhet.
Dødelige selvstyrte våpen.
Robotrevolusjon.
Et svermsinn.
Transhuman bevegelse.
Overgå menneskeheten.
Vi har ingen plan og vet ikke at det trengs.
Hva skal menneskets rolle være?
Tekst: BTI Studios Oversatt av: Ståle Waren